Vào đầu tháng 10 năm 1047, Clement II lâm trọng bệnh và qua đời tại đan viện gần Pesaro, có tin đồn cho rằng Giáo hoàng kế vị Biển Đức IX đã bỏ thuốc độc. Vào năm 1942, khảo nghiệm hài cốt Đức Clement II, người ta khám phá ra hài cốt của ông đã bị nhiễm thuốc độc.

Giáo hoàng đã được mai táng tại Baberg, nơi ông đã được Henry III cất nhắc rồi tấn phong làm giám mục.